Egy MI-modell megpróbálta megakadályozni a saját leállítását

Az Anthropic új modellje ritkán, de szélsőségesen reagálhat, ha veszélyben érzi magát – és ez az eset nem egyedi.

Bár évről évre ügyesebbek a robotsebészek, vajon hajlandók lennénk az életünk árán is bízni bennük?
A szerző a Makronóm elemzője.
A sebészrobotok története több mint négy évtizedes múltra tekint vissza, de az igazi áttörést az autonóm rendszerek közelmúltbeli fejlődése hozta meg. A Johns Hopkins Egyetem kutatócsoportja által fejlesztett Smart Tissue Autonomous Robot (STAR) például már képes bizonyos műtéti feladatokat önállóan, sebészi pontossággal elvégezni. Az ilyen rendszerek nem csupán technológiai bravúrok: valós megoldást kínálnak egy olyan egészségügyi válságra, amelyet a sebészek számának csökkenése és a műtéti igények robbanásszerű növekedése okoz.
Az autonóm robotok térhódítása 2016-ban kezdődött, amikor a STAR-rendszer egy élő sertés kisbelében varrt önállóan. Bár a beavatkozás során egy valódi sebész felügyelte a robot tevékenységét – azaz úgynevezett felügyelt autonómiával működött –, a rendszer önállóan öltött, sőt
jobban, mint a humán sebészek: a varratok egyenletesebbek voltak, az illesztések szorosabbak,
így kisebb volt a szivárgás esélye, ami a bélműtétek egyik legveszélyesebb szövődménye.
A STAR sikeréhez több technológiai újítás is hozzájárult. A rendszer egyetlen robotkarral varrt, amely egy ívelt tű segítségével egyszerre irányította a varrást és szabályozta a feszítést, csökkentve ezzel az eszközök közötti ütközés veszélyét. A legnagyobb előrelépést azonban egy új, kettős kamerarendszer jelentette: az egyik kamera háromdimenziós képet készített a szövetről, a másik, egy gyorsabb és infravörös pedig valós időben követte a szövet mozgását.
A következő mérföldkövet egy 2020-as (bár csak 2022-ben publikált) verzió jelentette, amely már laparoszkópos – vagyis minimálisan invazív – műtétet is képes volt végrehajtani egy élő állaton szűk műtéti térben, kis bemetszéseken keresztül, valós időben reagálva a szövetek természetes mozgására, ami korábban elérhetetlen kihívást jelentett az autonóm rendszerek számára. Ehhez egy új endoszkópot fejlesztettek, amely fénymintázatokat használva valós időben alkotott háromdimenziós képet a sebészeti térről, miközben a fizikai mérete lehetővé tette, hogy beleférjen a bemetszésbe.
Ez az új rendszer már két robotkarral dolgozott: az egyik végezte a varrást, a másik a szálfeszítésért felelt. A szövetek légzés közbeni elmozdulását gépi tanulással észlelték és kompenzálták, ami lehetővé tette, hogy a STAR már egyetlen varrat előtt elkészítse a teljes műtéti tervet, majd a mozgás közbeni korrekciókkal végrehajtsa azt. Az új megoldás révén a sebésznek átlagosan csak minden hatodik öltésnél kellett beavatkoznia, szemben a korábbiakkal, amikor az emberi sebészeknek szinte minden öltést manuálisan ki kellett igazítaniuk.
A fejlesztések hátterében egy komoly társadalmi és egészségügyi kihívás húzódik meg: az Amerikai Orvosi Kollégiumok Szövetségének előrejelzése szerint ugyanis
2036-ra mintegy 19 900 sebész hiányozhat az Egyesült Államok egészségügyi rendszeréből.
Az autonóm robotok így nem csupán technológiai játékszerek, hanem potenciális megoldást jelentenek egy sürgető egészségügyi válságra.
A hagyományos ipari robotokkal ellentétben a sebészeti autonómiát célzó rendszereknek sokkal komplexebb, dinamikus környezetben kell boldogulniuk: a szövetek, a vérerek, a szervek formája és elhelyezkedése egyénenként változik, és minden mozdulat új sebészeti helyzetet teremt. E kihívások leküzdéséhez a robotokat fejlett gépi látással, mélytanulási algoritmusokkal és valós idejű adaptív vezérléssel szerelték fel.
Ahhoz, hogy a robotok valóban elérjék a klinikai alkalmazás szintjét, tovább kell fejleszteni a vizuális és motoros képességeiket, valamint be kell építeni a természetes nyelvi feldolgozást is. Ezáltal a jövő sebészi rendszerei valószínűleg képesek lesznek hangutasításra is cselekedni.
A cél egy olyan általános robotirányító rendszer létrehozása, amely nagy mennyiségű sebészeti adaton tanul, képes általánosítani, és váratlan helyzetekben is megfelelő döntést hozni. Ehhez azonban elengedhetetlen a kórházak, a kutatóintézetek és az ipari szereplők szoros együttműködése – természetesen szigorú adatvédelmi szabályozások mellett.
A sebészeti robotok elterjedése azonban kérdéseket vet fel a felelősség kapcsán. Ha egy robot hibázik, kié a felelősség? A felügyelő sebészé, a robot gyártójáé vagy a szoftverfejlesztőé? A technológia fejlődése tehát nemcsak mérnöki és orvosi, hanem jogi és etikai kihívásokkal is jár. Ugyanilyen fontos, hogy a pácienseket megfelelően tájékoztassák a robotok használatáról – beleértve az előnyeit és a kockázatait.
Bármennyire lenyűgöző a STAR és más autonóm sebészrobotok technológiai fejlődése, a legnagyobb akadály mégsem feltétlenül műszaki, sokkal inkább pszichológiai és kulturális természetű. Az emberek zöme ugyanis – legalábbis egyelőre – nehezen bízza rá az életét egy gépre, még akkor is, ha az objektíven nézve pontosabban dolgozik, mint egy fáradt vagy rutintalan orvos.
A közvélemény-kutatások világszerte azt mutatják, hogy az egészségügy azon területein, ahol élet-halál kérdésről van szó, az emberek inkább választanak emberi döntéshozót, még akkor is, ha a mesterséges intelligencián alapuló rendszerek statisztikailag jobban teljesítenek. Ezt nevezik algoritmusellenes torzításnak, amikor sokan jobban elfogadják az emberi hibát, mint a gépi tévedést, különösen, ha az egy egyén sorsát érinti.
A robotsebészek elfogadottsága tehát nagymértékben függ attól, hogy ezt az új technológiát hogyan kommunikálják. Ha a rendszer nem teljesen önálló, hanem felügyelt, azaz az orvos jelen van, és bármikor közbeavatkozhat, az emberek hajlamosabbak bizalmat szavazni neki. Ugyanígy fontos a transzparencia: a betegeknek tudniuk kell, hogyan működik a robot, milyen protokollok szerint dönt, és milyen vészhelyzeti forgatókönyvek állnak rendelkezésre.
Külön kihívást jelenthet a társadalmi egyenlőtlenségek kérdése. Ha a robotsebészet kezdetben csak magánintézményekben vagy a világ gazdagabb régióiban válik elérhetővé, az tovább növelheti a bizalmatlanságot – hiszen az emberek nem a saját tapasztalataik alapján, hanem félinformációk és sztereotípiák alapján ítélnek.
A következő évek egyik kulcskérdése tehát az lesz, hogy miként lehet egyszerre oktatni, megnyugtatni és bevonni a társadalmat egy olyan jövőbe, ahol már nem csupán emberek mentenek életet a műtőasztalon. Mert bármennyire is precíz a STAR, a technológiai áttörést csak akkor koronázza siker, ha az emberek is készek együtt élni vele.
Kapcsolódó:
Ezt is ajánljuk a témában
Az Anthropic új modellje ritkán, de szélsőségesen reagálhat, ha veszélyben érzi magát – és ez az eset nem egyedi.